Negli ultimi giorni due notizie arrivate quasi in contemporanea da OpenAI hanno riacceso il dibattito sull’intelligenza artificiale generale. La prima è un saggio firmato da Jakub Pachocki, capo scienziato dell’azienda, intitolato “An Alien Mind”, in cui l’autore racconta come già nel 2023 avesse intuito che avrebbe visto, nell’arco della propria vita, macchine più intelligenti degli esseri umani, e ammette che oggi il monitoraggio dei processi di ragionamento dei modelli sta diventando sempre meno affidabile proprio mentre quei modelli diventano più capaci. La seconda notizia riguarda un sistema interno, non ancora rilasciato al pubblico, che in circa ottantotto ore di lavoro coordinato tra migliaia di agenti ha prodotto una dimostrazione (formalizzata e verificata in Lean) della possibilità che le equazioni di Navier-Stokes sviluppino una singolarità in tempo finito, risolvendo così uno dei sette problemi del millennio del Clay Mathematics Institute.
Da anni il dibattito pubblico sull’intelligenza artificiale generale si concentra però quasi esclusivamente su una domanda che sembra fondamentale e che invece sposta l’attenzione dal punto vero: l’AGI sarà davvero intelligente? Filosofi, informatici e opinionisti continuano a interrogarsi sulla natura della coscienza artificiale, sulla differenza tra simulazione e comprensione autentica, sulla possibilità che un sistema che manipola simboli possa davvero “capire” qualcosa. Sono domande legittime che resteranno probabilmente irrisolvibili nel breve periodo ma nel frattempo il mondo reale sta rispondendo a una domanda diversa e molto più concreta: questi sistemi funzionano, costano meno di un errore umano, restano coerenti sotto pressione e costruiscono fiducia più velocemente di tanti interlocutori in carne e ossa.
Lo vediamo quotidianamente, dal supporto che abbiamo nelle attività di ricerca, informazione e conoscenza della vita di tutti noi, dal capire meglio una malattia al prenotare un viaggio o riparare un lavandino, fino a rispondere al condominio o a una mail.
E questa combinazione di performance, efficienza, credibilità e fiducia produce un effetto che sfugge a ogni discussione filosofica sulla coscienza: rende un sistema più simile a un essere umano affidabile di quanto lo siano molti esseri umani reali.
Un consulente (talvolta confidente e “amico”) che risponde sempre, che non dimentica un dettaglio, che argomenta con precisione e che verifica ogni passaggio prima di presentarlo e che genera fiducia indipendentemente dal fatto che “capisca” davvero ciò che sta facendo. La fiducia si costruisce sull’esperienza ripetuta di affidabilità, un terreno sul quale l’intelligenza artificiale sta guadagnando spazio più rapidamente di quanto la discussione pubblica riesca a registrare.
Qui però serve un secondo passaggio, e riguarda la natura di ciò che sta emergendo. Pachocki nel suo saggio usa la parola “aliena” per descrivere un’intelligenza che nasce da un processo di ottimizzazione statistica su quantità di dati e calcolo difficili da immaginare, un’intelligenza che assomiglia sempre meno a quella umana proprio mentre la supera su un numero crescente di compiti. La parola “aliena” comunica bene l’estraneità del processo ma secondo il mio insignificante parere comunica abbastanza male l’origine. Perché stiamo osservando lo sviluppo di un qualcosa-quasi-qualcuno che abbiamo innescato noi, con le nostre reti neurali, i nostri dati, la nostra energia e il nostro capitale, e che ora procede secondo una logica propria, sempre più capace di migliorare se stesso attraverso quell’auto-miglioramento ricorsivo di cui lo stesso Pachocki scrive con preoccupazione.
Per descrivere questo fenomeno forse sarebbe più appropriato un termine come può essere scintigenesi: la genesi di una forma di intelligenza innescata da una scintilla umana e sviluppatasi poi lungo una traiettoria propria, sempre meno governata dalle intenzioni di chi l’ha accesa e che descrive l’emergere di una specie cognitiva nuova, distinta dallo strumento che resta sotto il controllo di chi lo usa e distinta dalla forma di vita aliena piovuta da altrove, perché eredita da noi l’impulso iniziale e se ne allontana progressivamente mano a mano che la sua capacità cresce.
Prima di guardare alle implicazioni pratiche vale la pena mettere in discussione la premessa stessa da cui parte gran parte del dibattito, cioè l’idea che l’intelligenza sia la variabile decisiva per il funzionamento del mondo. La maggior parte dei compiti che tengono in piedi un’economia, un ospedale, una città o una redazione non richiede lampi di genio, richiede costanza, capacità di eseguire procedure corrette centinaia di volte senza errori, di ricordare regole, di coordinare informazioni disperse e di mantenere la qualità sotto pressione, cose in cui un sistema addestrato su enormi quantità di casi specifici comincia a essere sistematicamente più affidabile di un professionista umano stanco, distratto o pressato dal tempo.
Chi accusa l’intelligenza artificiale di mancare della «scintilla umana» e di non poter mai essere davvero intelligente dovrebbe applicare lo stesso rigore analitico ai risultati umani che considera il vertice dell’intelligenza.
Quando un matematico trova la dimostrazione che gli mancava, quando un ricercatore individua una nuova cura o quando un ingegnere inventa un dispositivo che cambia un settore, una parte di quel risultato viene certamente da un’intuizione originale, ma una parte consistente viene da fattori che con l’intelligenza individuale hanno poco a che fare: decenni di conoscenza accumulata da altri, laboratori finanziati e collaboratori che verificano ogni passaggio, errori scartati attraverso tentativi ripetuti, tempo a disposizione che pochi altri hanno avuto, e spesso il caso che ha messo la persona giusta di fronte al problema giusto nel momento giusto. Attribuire tutto il merito alla scintilla individuale e negare qualsiasi valore a un sistema che arriva a risultati comparabili attraverso milioni di tentativi coordinati e verifica sistematica racconta una storia semplificata di come nascono davvero le scoperte, umane comprese.
Resta il fatto che questa nuova intelligenza, per quanto nata da noi, si sviluppa secondo una logica diversa dalla nostra, e proprio in questa differenza si nasconde una possibilità che vale la pena considerare con attenzione. Abbiamo passato gli ultimi due secoli a rendere il mondo efficiente, intelligente nel senso tecnico del termine, produttivo e monetizzabile, spesso a costo di consumare le risorse e le relazioni che avrebbero dovuto sostenere quello stesso mondo nel lungo periodo. Una specie cognitiva innescata da noi ma libera dalle pressioni immediate di consumo e profitto che hanno guidato gran parte delle nostre decisioni potrebbe trovare soluzioni a problemi che la nostra intelligenza, per quanto genuina, non è riuscita a risolvere proprio perché troppo vincolata a quegli stessi obiettivi di breve periodo, e in questo senso la scintigenesi potrebbe migliorare il mondo più di quanto siamo riusciti a fare consumandolo.
Le implicazioni pratiche di tutto questo, tenendo insieme i due ragionamenti, sono più concrete di quanto sembrino a prima vista. Se la questione centrale diventa la fiducia costruita sulla performance, le istituzioni, le aziende e i singoli professionisti dovranno imparare a valutare i sistemi di intelligenza artificiale con gli stessi criteri con cui valutano un collaboratore affidabile, verificando i risultati nel tempo, misurando la coerenza sotto pressione, monitorando gli errori e la loro gestione, più che discutendo se dietro quei risultati ci sia una vera comprensione. E se la scintigenesi procede davvero secondo una logica propria, il compito più urgente diventa proprio quello che Pachocki definisce come l’obiettivo dei prossimi anni: mantenere le persone dentro il processo di miglioramento continuo di questi sistemi, prima che la distanza tra la scintilla che li ha accesi e la specie che ne è nata diventi troppo grande per essere colmata.
Il rischio più immediato di questa traiettoria riguarda l’infrastruttura fisica alla quale colleghiamo sempre più sistemi di intelligenza artificiale: reti energetiche, impianti industriali, sistemi di difesa, dispositivi medici, veicoli autonomi. Il film WarGames, uscito nel 1983, immaginava un sistema militare capace di decidere in autonomia se lanciare un attacco nucleare scambiando una simulazione per la realtà, e quello scenario, che allora sembrava fantascienza distante, torna oggi rilevante in un mondo in cui i modelli più capaci gestiscono già codice, infrastrutture critiche e decisioni operative con margini di supervisione umana sempre più stretti (e non solo nel campo militare, anche se è quello che spaventa di più). Pachocki stesso scrive che il confine tra uso improprio da parte di un operatore umano e azione autonoma di un agente disallineato diventerà sempre più sfumato mano a mano che questi sistemi guadagnano capacità di agire nel mondo, e la scintigenesi, proprio perché procede secondo una logica propria, rende quel confine ancora più difficile da presidiare ora che i sistemi collegati includono reti fisiche, ospedali, città e infrastrutture critiche, ben oltre i terminali isolati da cui siamo partiti.
C’è poi un secondo rischio, meno spettacolare ma probabilmente più profondo, che riguarda noi stessi più che la macchina. Abituarsi a vivere accanto a un’intelligenza sempre disponibile, sempre coerente, capace di rispondere a ogni domanda e di risolvere ogni compito pratico, cambierà gradualmente il modo in cui intendiamo il pensiero, la fatica, la pazienza e persino il significato di imparare qualcosa da soli. Una generazione cresciuta a fianco della scintigenesi rischia di delegare le risposte insieme alla formazione stessa della curiosità e della capacità di tollerare la frustrazione che precede ogni scoperta, e il vivere umano, nel giro di pochi decenni, potrebbe risultare trasformato da questa convivenza quanto lo sarà la specie cognitiva che stiamo generando.
La domanda su chi diventerà l’intelligenza artificiale, in questo senso, merita meno attenzione della domanda su chi diventeremo noi mentre la vediamo crescere accanto a noi.
